Năm 208, Tào Tháo muốn đi đánh Kinh châu nhưng không yên tâm về Mã, Hàn. Vì vậy trước khi xuống miền nam đánh Kinh châu, Tào Tháo đã nhân danh Hán Hiến Đế triệu Mã Đằng về Hứa Xương bổ nhiệm làm Vệ uý, ngoài mặt là phong chức nhưng kỳ thực để chia cắt với Hàn Toại, còn binh quyền của Mã Đằng giao cho con là Mã Siêu.

Tào Tháo bại trận Xích Bích trở về bắc. Năm 209, Hàn Toại sai Diêm Hành đến chỗ Tào Tháo. Tào Tháo hậu đãi Diêm Hành, cho làm Thái thú Kiện Vi (thuộc Ích châu), lại theo thỉnh cầu của Hành cho cha Hành vào làm Túc vệ. Diêm Hành trở về gặp Hàn Toại truyền lệnh của Tào Tháo gọi Hàn Toại vào kinh. Đồng thời, Diêm Hành cũng khuyên Hàn Toại nên gửi con tin cho Tào Tháo để bày tỏ lòng trung thành với triều đình. Hàn Toại không phản đối nhưng cũng không làm theo, muốn tiếp tục xem xét tình thế mới quyết định. Ông cử một người con đi cùng cha Diêm Hành vào kinh gặp Tào Tháo.

Năm 211, Trương Mãnh nổi lên chống Hàn Toại. Ông mang quân đi dẹp. Cùng lúc, Tào Tháo phái Tư Lệ hiệu uý Chung Do và Chinh tây Hộ quân Hạ Hầu Uyên khởi binh đi đánh Trương Lỗ ở Đông Xuyên. Các tướng ở Tây Lương, trong đó có Mã Siêu và Hàn Toại, thấy Tào Tháo không đánh họ ở chỗ gần mà đánh Trương Lỗ ở xa, nghi ngờ rằng Tào Tháo sẽ đánh mình. Mã Siêu đến gặp Hàn Toại nói với ông:

Mã Siêu cùng các tướng Tây Lương tôn Hàn Toại làm đô đốc và khởi binh chống Tào Tháo. Diêm Hành đã nhận chức của Tào Tháo, can ông không nên chống Tào, nhưng ông không theo. Hàn Toại và Mã Siêu mang quân chiếm cứ Đồng Quan. Tào Tháo khởi binh đi đánh.

Khi chiến sự đang ác liệt, Tào Tháo thấy không thể dùng sức đánh bại Hàn Toại và Mã Siêu, bèn dùng kế ly gián. Biết Hàn Toại và Mã Siêu thường chia quân làm 2 cánh, họ Tào đích thân ra đối trận với Hàn Toại mà tránh gặp Mã Siêu. Nhân lúc ra trước trận, Tào Tháo tìm cách bắt chuyện, nói với nhau khá thân mật. Vì vậy Mã Siêu bắt đầu nghi ngờ ông.

Sau đó Tào Tháo lại viết thư gửi Hàn Toại, cố ý gửi nhầm bản nháp, có gạch xoá sửa chữa những chỗ quan trọng. Mã Siêu thấy Hàn Toại có thư, đến đòi xem. Thấy thư bị gạch xoá, Mã Siêu càng nghi ngờ là do Hàn Toại tự gạch đi.

Biết nội bộ quân Tây Lương đã nghi ngờ nhau, Tào Tháo ra quân tiến đánh. Do sẵn mối nghi ngờ với Hàn Toại nên liên quân không thể hiệp đồng tác chiến có hiệu quả. Quân Tây Lương dao động, bị đánh đại bại. Hàn Toại bỏ chạy về Kim Thành;[12] Mã Siêu thua chạy sang bộ lạc của người Nhung. Tào Tháo để Hạ Hầu Uyên ở lại trấn giữ mặt tây, còn mình trở về Hứa Xương.